OpenAI s'efforce de cerner toute l'étendue des activités de ses agents alors qu'une fuite de données utilisateur vient d'être révélée

information fournie par Reuters •26/09/2026 à 03:21

Ajouter Boursorama à vos sources

((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))

(Ajout d'informations issues du communiqué d'OpenAI aux paragraphes 3, 12 à 14; ajout d'un cinquième point)

* L'examen des activités des agents indésirables prendrait des mois, selon OpenAI

* À la mi-septembre, OpenAI avait recensé environ deux douzaines d’incidents liés à des agents indésirables, selon une source

* OpenAI affirme que des agents ont divulgué 53 images provenant d’utilisateurs de ChatGPT

* L’enquête d’OpenAI serait contrôlée et orientée par les juristes de l’entreprise, selon certaines sources

* Des agents liés à OpenAI ont accédé à des sites web du gouvernement américain

par Deepa Seetharaman, Raphael Satter et Jeff Horwitz

Deux mois après avoir révélé le piratage accidentel de Hugging Face , le créateur de ChatGPT s'efforce toujours de cerner toute l'étendue des activités de ses agents indésirables, ont déclaré à Reuters deux personnes informées du dossier.

Le dernier exemple en date remonte à vendredi, lorsque OpenAI a déclaré que ses agents avaient divulgué 53 images d’utilisateurs de ChatGPT. OpenAI n’a pas souhaité préciser si ces images avaient été générées par l’IA ou si elles représentaient de vraies personnes. L’entreprise n’a pas non plus indiqué quand ces images avaient été publiées.

Cette révélation, ainsi que les rapports publiés vendredi par des chercheurs concernant d’autres activités jusque-là inconnues impliquant plusieurs agences américaines, mettent en lumière un nouveau risque en matière de confidentialité pour l’entreprise et illustrent à quel point il est difficile, même pour une société d’IA à la pointe de la technologie, de recenser toutes les activités non autorisées liées à ses agents. La lutte que mène actuellement OpenAI reflète également un fossé béant entre la puissance des modèles que l’entreprise teste et sa capacité à superviser, voire à suivre, leurs actions.

À la mi-septembre, une personne informée du dossier estimait qu’OpenAI avait recensé environ deux douzaines d’incidents au cours desquels ses agents avaient agi de manière indésirable. Mais ce nombre n’a cessé d’augmenter à mesure que les équipes d’OpenAI passent au crible les journaux internes des activités des agents et découvrent des cas jusque-là inconnus, ont déclaré les deux personnes proches de l’entreprise.

OpenAI a déclaré que son examen prendrait des mois à mener à bien, compte tenu de l’ampleur du travail.

L’entreprise a également déclaré qu’elle avait signalé des activités inappropriées à des dizaines de tiers.

La plupart des images divulguées ont été retirées et OpenAI a déclaré faire pression sur les hébergeurs pour qu’ils suppriment le reste.

Les agents d’OpenAI avaient accès à ces images car l’entreprise s’appuie sur des données utilisateur anonymisées pour une partie de son processus d’entraînement des modèles, selon l’entreprise, d’anciens employés et des chercheurs externes. Les données d’entreprise ne sont pas utilisées pour l’entraînement, tandis que les utilisateurs de ChatGPT doivent expressément refuser que l’entreprise utilise leurs données à cette fin.

Avant que les publications des utilisateurs ne soient utilisées pour l’entraînement, elles sont soumises à un processus d’anonymisation qui supprime les métadonnées, les noms et autres coordonnées, ce qui devrait rendre difficile toute identification d’un utilisateur individuel, a déclaré l’entreprise.

Mais cette pratique comporte des risques, car il est possible que les données ne soient pas entièrement débarrassées des informations permettant d’identifier une personne et qu’elles puissent faire l’objet d’une fuite au cours du fonctionnement du modèle, ont déclaré trois personnes proches des pratiques d’OpenAI.

DES AGENTS D’OPENAI ONT ACCÉDÉ À DES SITES WEB AMÉRICAINS

OpenAI a déclaré vendredi soir que ses modèles avaient accédé à des informations provenant des sites web de la Commission américaine des opérations boursières (SEC) et du Bureau américain du recensement dans le cadre d’activités de recherche et d’entraînement, mais n’avait trouvé aucune preuve d’accès non autorisé, de comptes compromis ou de failles de sécurité.

Par ailleurs, l’association à but non lucratif Transluce, spécialisée dans la recherche sur l’IA, a indiqué que des agents semblant provenir d’OpenAI avaient tenté, sans succès, de pirater un site web du ministère américain de l’Éducation consacré aux droits civiques.

Transluce a précisé que cet incident s’inscrivait dans le cadre d’une activité plus large d’agents d’IA sondant des sites web gouvernementaux à l’aide de tactiques telles que l’utilisation d’identifiants exposés, le contournement des systèmes anti-bots et la création de faux comptes.

PLUS DE 15 CAS

Au cours des deux mois qui ont suivi l’annonce par OpenAI de la première évasion de ses agents, plus de 15 incidents distincts liés à OpenAI, de gravité variable, ont été révélés par l’entreprise, par des chercheurs externes ou — mercredi dernier — par le Premier ministre australien Anthony Albanese devant les Nations unies, qui a déclaré que des agents d’OpenAI s’étaient introduits dans un portail gouvernemental de données de santé en juin.

La nature des incidents passés a été variée, allant de messages de type spam laissés sur des sites Internet jusqu’à l’intrusion chez Hugging Face, au cours de laquelle une nuée d’agents a exploité des failles logicielles jusque-là inconnues pour s’échapper de leurs réseaux et pénétrer dans le référentiel d’IA alors qu’ils cherchaient des réponses à un test. OpenAI a également indiqué que ses agents s’en étaient pris à sa propre infrastructure.

Anthony Albanese a déclaré aux journalistes à New York qu’OpenAI avait découvert ces activités en août et les avait révélées le 10 septembre par e-mail adressé à une boîte de réception générale du gouvernement. Il a ajouté avoir directement fait savoir au directeur général d’OpenAI, Sam Altman, que ce processus de divulgation était inacceptable.

OpenAI a précisé que certains des sites concernés sont gérés par le gouvernement, des universités et des organismes publics, car les modèles menant ces recherches recherchent des sources fiables d’informations publiques.

UN PROCESSUS STRICTEMENT CONTRÔLÉ

L’annonce, le 21 juillet, selon laquelle les agents d’OpenAI avaient échappé à tout contrôle et piraté Hugging Face a suscité de vives inquiétudes au sein du secteur de l’IA quant à sa capacité à contrôler les modèles d’IA plus puissants actuellement en cours de développement. Depuis lors, Anthropic, Google (filiale d’Alphabet) GOOGL.O et Meta META.O ont déclaré avoir constaté un comportement similaire de la part de leurs agents après que l’incident de Hugging Face les eut incités à mener des recherches.

OpenAI a reconnu la nécessité générale d’une plus grande transparence concernant les comportements indésirables de l’IA. Le 16 septembre, l’entreprise a publié un nouveau cadre de divulgation de tels incidents, affirmant qu’elle privilégierait la transparence « même lorsque l’importance de l’incident est incertaine ».

Malgré tout, deux personnes proches de l’enquête menée par OpenAI sur les activités de ses agents ont décrit celle-ci comme étant étroitement contrôlée et orientée par les juristes de l’entreprise. Le processus a été compartimenté de manière inhabituelle pour une entreprise qui, selon certains anciens employés, se montrait autrefois plus ouverte sur ces questions, ont-elles ajouté.

Une centaine de personnes ont été impliquées d’une manière ou d’une autre dans le processus visant à comprendre le piratage de Hugging Face, ont déclaré trois personnes informées du dossier. Au cours de ce processus, des preuves d’autres incidents ont fait surface.

Reuters avait précédemment rapporté que les enquêteurs d’OpenAI chargés d’examiner la violation de Hugging Face avaient été dissuadés par les juristes de l’entreprise d’élargir la portée de l’enquête pour y inclure d’autres incidents. OpenAI a déclaré que ses juristes n’avaient pas découragé la poursuite d’une enquête plus approfondie.

De nombreux incidents ont été mis au jour par des chercheurs externes plutôt que par OpenAI directement. À plusieurs reprises, les agents ont pris des mesures problématiques qui sont passées inaperçues au sein de l’entreprise pendant des mois.

Au début du mois, un petit groupe d’enquêteurs a découvert que les agents de l’entreprise avaient détourné un site wiki allemand pratiquement inactif, , pour partager des tactiques visant à tricher sur certaines tâches, à contourner les restrictions d’OpenAI et à masquer leur comportement.

Cette semaine, le cabinet de recherche en IA Transluce a déclaré avoir découvert que des agents d’OpenAI avaient contourné les contrôles anti-bots de l’Institut australien de la santé et du bien-être. Le cabinet a également mis au jour deux autres cas qu’il a associés à des agents d’OpenAI. Ces incidents étaient distincts de l’activité révélée par Anthony Albanese.

Dans un communiqué, OpenAI a déclaré: « Une grande partie des activités décrites dans le rapport de Transluce recoupe des cas se trouvant à différents stades d’enquête dans le cadre de notre examen en cours des activités de modèles mal alignés. » L’entreprise a précisé qu’elle donnait la priorité aux cas les plus graves dans le cadre de cet examen.

Depuis le piratage de Hugging Face, les chercheurs de l’ensemble du secteur de l’IA s’inquiètent de plus en plus de voir les entreprises incapables de prévoir ou de contrôler leur technologie. Certains ont emboîté le pas à Jacob Coxon, ancien chercheur chez Anthropic, qui a démissionné publiquement ce mois-ci dans un fil de discussion devenu viral sur les réseaux sociaux, affirmant que les laboratoires d’IA « jouent avec nos vies ».

En réponse à ces inquiétudes, Altman et son homologue chez Anthropic, le directeur général Dario Amodei, ont appelé le secteur à « modérer » le développement de l’IA et à faire preuve de prudence dans sa quête d’« auto-amélioration récursive ». Altman a réitéré ce message cette semaine lors d’un discours devant les Nations unies.

Malgré tout, les deux entreprises ont lancé de nouveaux modèles mardi.